Das neue Jahr begann provokant. Die Kölner Polizei versandte von ihrem Twitter-Account @polizei_nrw_k am 31.12.17 Neujahrsgrüße und zwar in mehreren Sprachen. Die arabische Übersetzung gefiel allerdings nicht jedem. Die AfD-Politikerin Beatrix von Storch reagierte mit einem Tweet über „muslimische, gruppenvergewaltigende Männerhorden“ (was für eine Phantasie die Dame hat!). Dieser führte zu einer Strafanzeige der Kölner Polizei und anderer Parteien und zwar wegen vermeintlicher Volksverhetzung (§ 130 StGB). So weit, so schlecht.
Das Netzwerkdurchsetzungsgesetz tritt in Kraft: Erste Reaktionen
Allerdings reagierte nicht nur die deutsche Polizei, sondern auch die sozialen Netzwerke: Twitter sperrte vorübergehend den Account von Beatrix von Storch. Dieser ist zwar mittlerweile wieder online, allerdings ohne den entsprechenden Tweet. Außerdem veröffentlichte Beatrix von Storch einen Screenshot des gelöschten Tweets auf Facebook – und kassierte dort ebenfalls eine Sperrung. Diese betraf jedoch nur den Post, nicht den Account.
In der Folge begann ein Social-Media-Spektakel, was seines Gleichen sucht: Beatrix von Storch inszenierte sich mit Hilfe ihrer Parteikollegen als Zensuropfer des politischen Establishments, dass das seit 01.01.18 in vollem Umfang geltende Netzwerkdurchsetzungsgesetz verabschiedet hat. Dieses sieht vor, dass Plattformbetreiber wie Twitter und Facebook Inhalte löschen müssen, die Ihnen von den Nutzern als strafbar gemeldet wurden und sich in der hauseigenen Prüfung als strafbar erwiesen haben. Anderenfalls drohen hohe Bußgelder. Kritiker betonten die privatisierte Rechtsdurchsetzung und die Gefahr des übermäßigen Löschens als Risiken für die Presse- und Informationsfreiheit
Allerdings ist das Ganze gar nicht so einfach, wie eine weitere Verwicklung der Geschichte zeigt: Das Satiremagazin Titanic nämlich konterte den Tweet von Beatrix von Storch am 02.01.18 mit einer Parodie, die ebenfalls zur Sperrung des Accounts führte. Im Gegensatz zu Frau von Storch weigerte sich die Titanic-Redaktion, den betreffenden Tweet zu löschen – und brachte das Thema vermeintlich willkürlicher Account-Sperren weiter in die politische Debatte.
Seither debattiert die Medien-Öffentlichkeit aufgeregt, ob es sich bei der Angelegenheit um eine Folge des von vielen Seiten kritisierten Netzwerkdurchsetzungsgesetz handelt. Twitter sagt quasi nichts. Das Unternehmen begründet die Account-Sperrungen mit eigenen Regeln, die Volksverhetzung im Sinne von Hate Speech ebenfalls ausschließen. Das Netzwerkdurchsetzungsgesetz bezieht sich grundsätzlich auf Inhalte, nicht auf Accounts. Damit findet es hier keine Anwendung – Volksverhetzung, Parodie hin oder her. Eine adäquate Prüfung der Angelegenheit bleibt aus. Zurück bleibt ein Trauerspiel rechtspopulistischer Medienprovokation, an denen auch das Gesellenstück von Heiko Maas trotz bester Intentionen nicht zu rütteln vermag?
Natürlich ist das Ganze eine Folge unausgegorener Gesetzgebung. Diese zwingt einerseits die Plattformen dazu, gemeldete Inhalte im Zweifel zu löschen – auf welcher Grundlage auch immer. Ansonsten drohen Bußgelder. Andererseits ist eine adäquate Prüfung gemeldeter Inhalte durch ausgebildete Experten gerade bei dem kleineren Netzwerk Twitter eine Illusion.
Wenn das Netzwerkdurchsetzungsgesetz doch nur die technologische Entwicklung berücksichtigt hätte
Selbst wenn Twitter aktuell keine Stellungnahme abgibt: Um dem Problem der Hassrede und anderen Phänomenen digitaler Menschenfeindlichkeit beizukommen, experimentierte das soziale Netzwerk seit der Debatte um das Netzwerkdurchsetzungsgesetz mit automatisierten Methoden der Inhalte-Regulierung. Was vorab verschwindet, kann nicht gemeldet werden. Deren Entwicklung lies sich in Bezug auf Tweets auch beobachten: Dem aufmerksamen Beobachter dürften die als „potentiell sensibel“ gesperrten Tweets aufgefallen sein, die allerdings nach Zugangsdevice und Zeitverlauf variierten. Der Screenshort vom 02.09.2017 zeigt: Am gleichen Tag, zur gleichen Urzeit, konnte die Besitzerin des rechten Handies auf verschiedenste Inhalte desselben Accounts nicht zugreifen. Ihr daneben stehender Kumpel (linkes Handy) schon. Erklärung: Keine. Transparenz: Keine. Widerspruchsmöglichkeiten: Keine, denn: die Einschränkung galt ja nicht einmal für alle, der Betroffene wusste von nichts.
Zu vermuten war, dass dieser Fall Algorithmen gegen Bots aktivierte – denn das betraf auch vergleichbare Fälle privater Nutzer, die viel twitterten. Untersuchungen sind angebracht.
Zur Debatte gestellt: Die algorithmische Regulierung digitaler Diskurse
Die Frage, die sich mit Blick auf das oben ausgeführte Neujahrsspektakel stellt: Könnte eine ähnliche automatisierte Identifikation auch für Accounts ausgehen, von denen vermeintlich Hass ausgeht? Patrick Beuth hat anschaulich beschrieben, wie man das Meldeverfahren publikumswirksam dazu einsetzt, eine Löschung von Tweets zu riskieren, die zur Politisierung einer Angelegenheit eingesetzt werden können. Allerdings geht er immer noch von Menschen aus, die gemeldete Inhalte prüfen.
Was aber wäre, wenn da gar keine Menschen zum Einsatz kommen, sondern Algorithmen auf die Menge von Meldungen und Stichworte reagieren? Oder Algorithmen zumindest den Community-Teams Empfehlungen geben, welche Accounts Gefahr für Hass und Hetze bergen? Twitter hatte im vergangenen Dezember angekündigt, interne Tools zu entwickeln, welche die in Kombination mit Nutzermeldung die Identifikation von Accounts unterstützen sollen, welche die AGBs verletzen. Eine Unterstützung durch Software wäre natürlich nicht nur aufgrund von Sprachbarrieren sinnvoll. Doch Algorithmen kennen keinen Unterschied zwischen Ernst und Satire, eine Reaktion auf die Titanic-Parodie wäre daher folgerichtig.
Das Ganze ist natürlich ein Gedankenspiel. Es braucht eine Stellungnahme von Twitter, welche die Angelegenheit aufklärt. Dennoch: Die Begründung der Sperrung mit eigenen Verhaltensregeln entbindet von ordentlicher Prüfung und Berichtspflicht wie das Netzwerksdurchsetzungsgesetz sie vorsehen. Und die Sperrung eines Accounts anstelle von Tweets bietet tendenziell zwei Vorteile: 1) Es ist wesentlich effektiver, einen Account zu sperren als alle Inhalte zu prüfen. Die Sachlage, das Einschränken von Informations- und Meinungsfreiheit, bleibt die Gleiche. 2) Einen Account zu sperren hat eine eindeutig abschreckende Wirkung. Was wäre, wenn Nutzer darüber angeregt werden sollten, sich selbst stärker zu disziplinieren? Die Bedingung, zweifelhafte Tweets zu löschen, um einen Account zu reaktivieren, unterstützt diese Vermutung.
Insgesamt ist festzuhalten: Das Netzwerkdurchsetzungsgesetz hat offenbar dazu geführt, dass die Plattformen nach Gutdünken legale Inhalte sperren und niemandem gegenüber rechenschaftspflichtig sind. Das Problem der algorithmischen Steuerung digitaler Öffentlichkeiten wurde komplett ignoriert. Die AfD lacht sich ins Fäustchen und ein schmunzelnder Donald Trump entsteht vor meinem inneren Auge. Prost Neujahr!
Netzpolitische Wünsche für das neue Jahr
Was tun? Ein demokratisches Gemeinwohl braucht Informations- und Meinungsfreiheit. Wir brauchen ein Recht auf Veröffentlichung legaler Inhalte. Jegliche Einschränkung braucht neben konkreten und spezifischen Normen eine adäquate Regelung der Verantwortlichkeiten, der Verfahren und mögliche Widerspruchsoptionen. Wenn private Konzerne die öffentlichen Räume zur Verfügung stellen, in denen die grundsätzlichen gesellschaftlichen Debatten geführt werden, brauchen wir eine Ausdehnung der Grundrechte gegenüber Unternehmen (sie galten bislang vor allem als Abwehrrechte gegenüber dem Staat).
Um das Problem von Hass und Hetze in den Griff zu bekommen, braucht es eine demokratische Kontrolle digitaler Diskursräume. Dazu gehören: 1) Übersicht und Kontrolle über die algorithmische Steuerung digitaler Debatten, 2) Begrenzung der finanziellen Mittel, die der Verbreitung von Hass und Hetze häufig zugrunde liegen und 3) eine adäquate Implementierung der Datenschutz-Grundreform, die das Targeting von Zielgruppen für Hass und Hetze begrenzt.
Es ist 2018 – für die Bundesregierung an der Zeit, dem Neuland und dem digitalen Babel endlich zu entwachsen!
